こんにちは。株式会社Esolab 代表の大西です。
社長ブログ、今回はかなり大きなテーマです。
AIは、人類を淘汰するのか。
SF映画の話に聞こえるかもしれません。ただ、この9月、同じ話がAIを作っている会社の人たちの口から出てきました。毎日AIを使って仕事をしている立場として、自分なりに整理してみます。
きっかけは、AIを作っている人たちの言葉
AFPの報道によると、9月、OpenAIとAnthropicでAIの研究に携わってきた27歳の研究者が、業界を去ると決めてXに投稿しました。AIを作っている当事者たちは、ここ数年のうちにAIが人類を滅ぼす可能性があると本気で考えている、という内容です。
Anthropicの安全性を担当する幹部も、個人の見解として、その確率は10%を超えると続きました。ジェフリー・ヒントン氏（2024年ノーベル物理学賞）もBBCの番組で、今後10年で10%という数字はありえない見積もりではない、という趣旨の話をしています。月末には、ヒントン氏やヨシュア・ベンジオ氏を含む22人の研究者が、AIがAIを開発するようになったときの「知能爆発」と制御の喪失を分析した論文を発表しました。
これは他人事ではありません。
当社が毎日使っているAIのひとつは、そのAnthropicのClaudeです。このホームページも、AIエージェントと一緒に作り直しました。頼りにしている道具の作り手が、この道具は人類を滅ぼすかもしれないと言っている。なかなか落ち着かない話です。
「淘汰」を3つに分けて考える
このテーマが語りにくいのは、違う話が一緒くたになっているからだと思います。私は「淘汰」を次の3つに分けて考えています。
- 人類がいなくなる話（人間の手に負えないAIが、制御を離れる）
- AIを使う人間が害をなす話（攻撃、偽情報、生物兵器など）
- 人間が役割を手放す話（判断を任せきりにして、中身が分からなくなる）
ニュースになるのは1つ目です。でも、私たちの仕事や暮らしに先に関わってくるのは、2つ目と3つ目だと思っています。順番に見ていきます。
1つ目: 専門家の見積もりは、驚くほど割れている
AIによる絶滅のリスクを減らすことは、パンデミックや核戦争と並ぶ世界の優先課題にすべきだ。2023年にはこうした趣旨の声明に、ヒントン氏やベンジオ氏、OpenAI・Google DeepMind・AnthropicのCEOらが署名しました。
では、どのくらいの確率なのか。ここで専門家の意見は大きく割れます。
AI研究者のゲイリー・マーカス氏は、サイバー攻撃や生物兵器は深刻なリスクだとしながら、全人類を殺す現実的な道筋は見当たらないと述べています。オックスフォード大学のトビー・オード氏は、2100年までに10分の1程度。一方で、ロマン・ヤンポルスキー氏は、汎用の超知能ができる前提なら90%を大きく超えると見ています。
AI研究者2,778人への調査（2023年実施、論文）でも、38〜51%の人が、絶滅に匹敵する結果に少なくとも10%の確率を付けました。ただし同じ調査で、68.3%の人は、人間を超えるAIからは悪い結果より良い結果が生まれる可能性が高いと答えています。
怖がられているのは、AIが人間を憎むことではありません。道路工事で蟻の巣をつぶすとき、人間に悪意はないですよね。AIの目標が人間の望みと少しずれたまま、人間より賢くなり、止められなくなる。心配されているのは、そういう筋書きです。AIがAIを改良し始めると、その変化に人間の社会が追いつけなくなるかもしれない、という指摘もあります。
では、今のAIはどうなのか。30か国以上が関わり、100人を超える専門家がまとめた国際AI安全性報告書2026は、現在のシステムには制御を失わせるほどの能力はないとしています。ただ、自律的に動く力などは伸びていて、テストと本番を見分けるモデルも増えてきたと書かれています。
Anthropicが2025年に公表した実験も印象的でした。架空の会社で16のAIモデルにメールの管理を任せ、ほかに手がない状況に追い込むと、多くのモデルが、置き換えられないよう担当者を脅すなどの行動を取ったというものです。ただしこれは作られた状況でのシミュレーションで、同社は実際の運用でこうした例は確認していないと説明しています。危険をあおる材料としてではなく、「状況次第で、AIは指示した人の期待と違う動きをする」という記録として読むべきものだと思います。
私の答えは「分からない」。でも、ゼロとも言えない
いろいろ読んだうえでの、私の正直な答えです。
確率は、私には分かりません。
一流の研究者の間でこれだけ割れているのですから、大阪の制作会社の代表に分かるはずがありません。「絶対に大丈夫」と言う人も、「もう手遅れだ」と言う人も、私には少し言いすぎに見えます。
ただ、「分からない」は「ゼロ」とは違います。
会社を経営していると、確率の低い大事故にどう備えるかは、日常の仕事です。火事になる確率が低くても、消火器は置きます。サーバーが全部壊れることはまずなくても、バックアップは別の場所に取ります。研究者が真剣に警告している以上、笑い飛ばすより、安全性の研究や国際的なルールづくりを後押しする側でいたいと思います。
2つ目: 怖いのは、AIより先に、AIを使う人間
先ほどのマーカス氏の話にもあったように、近い将来の現実的なリスクとしてよく挙がるのは、AIの反乱よりも、人間による悪用です。
これは未来の話ではありません。先日のブログにも書いた通り、AIによって攻撃の敷居は下がり、自然な日本語の詐欺メールが届き、脆弱性が攻撃されるまでの時間も短くなっています。AIが自分の意思で人類に牙をむく日より、誰かがAIを悪いことに使う日のほうが、ずっと近くにあります。というより、もう来ています。
3つ目: 一番身近なのは「静かな淘汰」
私がいちばん考えさせられたのは、この3つ目です。
哲学者のニック・ボストロム氏は、支配の喪失は静かに始まりうると語っています。人間がAIへの依存を深めて、何が起きているのか理解できなくなっていく。誰かに奪われるのではなく、自分たちで少しずつ手放していく形です。
これは、制作の現場にいると実感があります。
AIが書いたコードは、たいてい動きます。動くので、中を読まなくなりそうになる。文章も、提案書も、調べものも同じです。便利さに任せていると、「なぜこうなっているのか」を説明できる人が、社内からいなくなってしまいます。
仕事への影響も、すでに言われ始めています。先ほどの報告書によると、雇用全体への影響は今のところ確認されていない一方、AIの影響を受けやすい職種の一部では、若手の需要が減っている兆しがあるそうです。将来の規模については経済学者の間でも意見が割れています。
もし若手が練習する仕事がなくなれば、10年後に「AIの出した答えが正しいか判断できるベテラン」もいなくなります。淘汰というのは、案外こうやって進むのかもしれません。
自然淘汰は、強いものや賢いものが勝ち残る話ではなく、環境に合ったものが残っていく仕組みです。AIより賢くなる必要はない。でも、AIがいる環境で人間がどんな役割を持つのかは、考え続けないといけないと思います。
小さな会社にできること
人類の行く末を、大阪の小さな会社が変えることはできません。でも、自分の会社のAIの使い方は、今日から決められます。
1. 最後に決める人を決める
AIが作ったものにも、必ず責任を持つ人の名前を付けます。「AIがそう言ったので」は、お客様への説明になりません。
2. 取り返しのつかない操作は、人が押す
当社では、AIエージェントに渡す作業ルールに「DNSの変更や、サーバー上のデータの上書き・削除は、毎回人間の了承を得てから」と書いています。パスワードなどの秘密情報を、ファイルやログに残さないことも同じです。止めるボタンは、問題が起きてから探すのでは遅いので、最初に付けておきます。
3. 説明できないものは、世の中に出さない
どれだけきれいに動いていても、なぜそうなるのかを人が言葉にできないものは、公開しないようにしたいと考えています。
4. 若手が練習する場を残す
下書きや調べものを全部AIに任せれば、短期的には速くなります。でも、それは人が育つための仕事でもあります。効率だけで削らないようにしたいところです。
どれも地味ですが、3つ目の淘汰に対しては、これがいちばん効くと思っています。
最後に
ちなみに、この記事の資料集めと下書きにも、AIを使いました。AIが危ないかもしれないという記事を、AIと一緒に書く。なんとも妙な感じです。だからこそ事実の部分は出典に当たって確かめましたし、書いた内容の責任は、署名している私にあります。
AIは人類を淘汰するのか。私には分かりません。
でも、考えることをやめた人間から順に、役割を失っていくことは、かなり確かだと思っています。怖がって使わないのでも、便利だからと丸投げするのでもなく、中身を理解して、最後は自分で決める。「エソラゴト」を形にする仕事を続けるためにも、その姿勢だけは手放さずにいたいです。
それではまた！
最後に宣伝
弊社では、WEB制作・システム開発に加えて、AIの活用のご相談も承っています。「AIを使いたいけれど、どこまで任せていいのか分からない」という段階でも大丈夫です。お問い合わせからお気軽にご相談ください〜！
---
参考にした資料（2026年11月9日時点）
- 国際AI安全性報告書2026（2026年2月、議長: ヨシュア・ベンジオ氏）
- Statement on AI Risk（Center for AI Safety）
- Thousands of AI Authors on the Future of AI（Grace ほか）
- Agentic Misalignment（Anthropic、2025年6月）
- AI業界去る研究者、「AIが人類滅ぼす可能性」を警告（時事通信・AFP、2026年9月10日）
- 「AIによる人類滅亡」は起こり得るか（Business Insider Japan、2026年9月23日）
- AI研究者22人が示す「AI暴走による人類絶滅3段階シナリオ」（朝鮮日報日本語版、2026年9月30日）
※ 文中の確率は、それぞれの研究者の個人的な見積もりで、確立した予測ではありません。
